前幾天都在講輸入端:注意力、成本、快取。今天換到輸出端。模型吐出來的是自然語言,是給人讀的;但系統裡下一站往往是程式:要進資料庫、要走 if/else、要呼叫下...
昨天最後留了一個問題:歷史 token 的 K、V 算一次就不變,那共用開頭的請求,能不能共用計算?今天把這件事講完,因為 cache 是 L1 裡投資報酬率最...
昨天講注意力怎麼分配,今天講錢怎麼算。這兩件事共用同一個底層:token。你在 API 帳單上看到的每一個數字,背後都有機制可以解釋,知道機制之後,很多省錢手段...
昨天給了四層地圖,今天從最底層 L1 Prompt Engineering 開始。不從技巧開始講,先講機制,因為知道機制之後,大部分技巧你自己就推得出來。 我有...
一份 Markdown 可以是開會筆記,也可以決定 agent 能不能讀 production database、什麼情況可以呼叫工具、遇到哪種要求必須拒絕。...
你是不是也有過這種感覺——花半小時跟 AI 解釋完專案背景,好不容易進入狀況,下次對話又要從頭來過?社群一直在吵 AI 記憶不夠,但我覺得這個方向從一開始就問...
資訊基準日:2026-07-21。文中每個日期與主張都對應文末的可驗證來源;X 貼文與部分官方文章的取得限制已逐條標注。 你大概在時間線上看過這條鏈:Pro...
今天是鐵人賽的第 29 天,這趟不可思議的旅程,即將抵達終點。 回首這一個月,彷彿一場夢。我還記得 Day 2 時對 Optional 感到困惑,記得第一次在...
引言 我們今天要談的主題是要怎麼讓 AI 理解你!想像一個情境是,你想要你的朋友幫你做一件事。如果你只說一句「幫我寫報告」,他根本不會知道你想要什麼內容、怎樣的...
🔹 前言 在使用 LLM(大型語言模型)的時候,我們其實是透過一段「指令」來告訴模型要做什麼,這段指令就叫做 提示詞(Prompt)。 在 Day 15 &a...
前言 今天這篇我們探討 prompt engineer 相關的知識,不同模型有可能根據提示詞(Prompt)會給不同的結果(Claude、Llama、Titan...
延續 Day 7|Generation pipeline:AI 如何把知識取出來用 的內容,這邊要講到 Prompt Engineering,這邊會很重要的原因...
想必大家在 Android 學習的路上都學過天氣 APP 怎麼做吧!今天,要使用 Prompt 像工廠產線一樣製造量產型天氣 APP 前端我們將使用 AI St...
很明顯用錯誤的方式,一直問絕對不會得到多好的答案但只要掌握以下基本原則,就會讓你跟 AI 聊天的過程更順暢 What is Prompt Engineering...
昨日回顧與今日目標 在 Day 17 中,我們成功整合了 AI 好同事——GitHub Copilot,但我們也需要能夠意識到,一個只會瘋狂寫 producti...
什麼是大型語言模型(LLM)? 大型語言模型的本質,其實就是一個能根據提示詞與前文脈絡,持續預測下一個 token 的深度學習模型。它的訓練方式,是先吃進海量...
什麼是提示工程 提示工程是一種如何以清楚指令來引導 AI 的實踐,藉此讓 Copilot 可以更為精準回答正確的問題或完成需求,如解釋專案內容與產生相對應的程式...
前面幾天深入介紹了 GitHub Copilot 和 Microsoft 365 Copilot 的各項功能與應用場景,這些強大的 AI 工具為日常工作帶來了...
昨天提到第一名利用 T5-base 模型的弱點,在提交的 prompt 後面瘋狂重複"lucrarea"這個神秘咒語,就能有效提高自身和正確...
萬物皆可Prompt,但你有想過可以透過Prompt來玩麥塊(MineCraft)嗎? 多倫多大學開發了一個名為STEVE-1的模型,這是一個能夠在Minecr...
對圖像做 adversarial attack 可能你已經很熟悉了,今天帶大家來看看怎麼對文本做對抗攻擊。第一名的 solution 就使用到 adversar...
在教學的過程中,我看過許多人以為 AI 會讀心術或通靈。 於是問了一些沒頭沒腦的問題, 最後得出一個結論:「AI 很笨,根本沒辦法幫上什麼忙」 這就像一個外國人...
不知道你會不會覺得,昨天介紹的解法中,第一步「不斷迭代 mean prompt 以優化這個 prompt」,需要每做1個或n個對 token 的操作,就上傳到...
你是否曾在年底回顧年初所列下的目標清單時,發現自己寫了 10 個目標卻只完成了 1 個,然後告訴自己沒關係,明年再努力!接著隔年再經歷一次同樣的循環。這個現象...
大家應該都很習慣跟LLM聊天時,輸入文字然後 LLM 就會輸出文字的這個 text2(to)text 的過程。今天要教大家怎麼操作向量空間中的 embeddin...
感恩是一種習慣,這種習慣能改變我們看待生活的方式,讓我們以更積極、正向的態度面對每一天。當你開始練習感恩時,你會逐漸發現,幸福和好運似乎會越來越多地出現在你的...
除了工作,我還是一位塔羅占卜師。市面上有許多不同的占卜方式,但我特別喜歡塔羅牌,因為它不僅展示了個人未來的可能性(而非 100% 必然性),還能通過提問的過程...
大語言模型是由大量的資料訓練而成,但並非所有事情語言模型都能夠精確回答,當語言模型遇到不理解或不清楚的問題時,模型沒有資料可以進行回覆便有可能會「一本正經胡說八...
上一篇文章我們探討了如何使用 Perplexity 來橫向拓展知識領域,這次我想聚焦在縱向學習,針對單一主題深度理解。無論你對哪個領域感興趣,要實現縱向學習並...
前陣子看到奧斯卡影帝丹佐·華盛頓對新聞的言論,他說了一句話完美詮釋了我對當前新聞媒體的感受: 如果你不看新聞,你會與世界脫節;但如果你看新聞,你會與事實脫節。...